Suchergebnisse

Abstract
The standard model for developing AI systems assumes a fixed, known objective that the AI system is required to optimize through its actions. Systems developed within the standard model have been increasingly successful. I briefly summarize the state of the art and its likely evolution over the next decade. Substantial breakthroughs leading to general-purpose AI are much harder to predict, but they will have an enormous impact on the global economy and on human roles therein. At the same time, I expect that the standard model will become increasingly untenable in real-world applications because of the difficulty of specifying objectives completely and correctly. I propose a new model for AI development in which the machine's uncertainty about the true objective leads to qualitatively new modes of behaviour that are more robust, controllable, and deferential.

Humans dream of super-intelligent machines. But what happens if we actually succeed? Creating superior intelligence would be the biggest event in human history. Unfortunately, according to the world's pre-eminent AI expert, it could also be the last. In this groundbreaking book on the biggest question facing humanity, Stuart Russell explains why he has come to consider his own discipline an existential threat to our species, and lays out how we can change course before it's too late. There is no one better placed to assess the promise and perils of the dominant technology of the future than Russell, who has spent decades at the forefront of AI research. Through brilliant analogies and crisp, lucid prose, he explains how AI actually works, how it has an enormous capacity to improve our lives - but why we must ensure that we never lose control of machines more powerful than we are. Here Russell shows how we can avert the worst threats by reshaping the foundations of AI to guarantee that machines pursue our objectives, not theirs. Profound, urgent and visionary, Human Compatible is the one book everyone needs to read to understand a future that is coming sooner than we think.

Most research on biased public sector hiring highlights local politicians' incentives to distribute government positions to partisan supporters. Other studies instead point to the role of bureaucratic managers in allocating government jobs to close contacts. We jointly consider the relative importance of each source of biased hiring as an allocation problem between managers and politicians who have different preferences regarding public sector hiring and different abilities to realize those preferences. We develop a theoretical model of each actor's relative leverage and relative preferences for different types of public sector positions. We empirically examine our theory using the universe of payroll data in Kenyan local governments from 2004 to 2013. We find evidence of both patronage and bureaucratic favoritism, but with different types of bias concentrated in different types of government jobs, as our theory predicts. Our results highlight the inadequacy of examining political patronage alone without incorporating the preferences and leverage of the bureaucratic managers who are intricately involved in hiring processes.

»Das bedeutendste Buch über KI in diesem Jahr.« - THE GUARDIAN, 24.10.2019 Werden Maschinen bald auf nahezu allen Gebieten intelligenter sein als der Mensch? Auch wenn dies vielversprechend klingt, ist die Entwicklung einer Superintelligenz zugleich ein ernstzunehmendes Risiko. Denn ist diese einmal da, können wir nicht mehr einfach den Stecker ziehen. Niemand kann die Chancen und Risiken der künstlichen Intelligenz besser beurteilen als Stuart Russell, der seit mehr als einer Dekade an vorderster Front der KI-Forschung arbeitet. Er veranschaulicht mit brillanten Analogien, wie sich natürliche und künstliche Intelligenz voneinander unterscheiden, und macht deutlich, dass wir vermeiden müssen, dass die Maschinen für uns unkontrollierbar werden. Fundiert, eindringlich und visionär zeigt Human Compatible neue Perspektiven und Lösungswege für die KI-Forschung auf, um zu gewährleisten, dass superintelligente Maschinen unsere Ziele verfolgen und nicht ihre eigenen. Stimmen zum Buch: »Dank Russell habe ich erkannt, dass unsere Fähigkeit, superintelligente Maschinen zu kontrollieren, begrenzt ist. [...] Sein neues Buch wird das Thema KI der breiten Öffentlichkeit zugänglich machen, mehr als jedes andere Buch, das ich kenne.« - JUDEA PEARL, Turing-Award-Gewinner und Autor von The Book of Why »Dieses wundervoll geschriebene Buch thematisiert eine grundlegende Herausforderung für die Menschheit: zunehmend intelligente Maschinen, die tun, was wir von ihnen verlangen, aber nicht, was wir tatsächlich wollen. Eine unverzichtbare Lektüre, wenn Sie sich für unsere Zukunft interessieren.« - YOSHUA BENGIO, Gewinner des Turing Award 2018 und Co-Autor von Deep Learning. Das umfassende Handbuch Biographische Informationen Stuart Russell ist Professor für Informatik an der University of California, Berkeley. Er war stellvertretender Vorsitzender des Rats für künstliche Intelligenz und Robotik des Weltwirtschaftsforums und Berater für die Rüstungskontrolle der Vereinten Nationen.